人物志 | 让万物互联转向万物智能——异构计算领域顶尖科学家吴韧 | 自由微信

人物志 | 让万物互联转向万物智能——异构计算领域顶尖科学家吴韧

成都信息工程大学 2019-06-28

人物简介

吴韧，1984 年毕业于成都气象学院（现成都信息工程大学）电子系，国际知名人工智能专家、高性能计算专家，异构计算专家和计算机博弈专家，曾先后担任AMD异构系统首席软件架构师，惠普实验室资深科学家及CUDA研究中心首席研究员，百度深度学习研究院杰出科学家，现为NovuMind（异构智能）公司的创始人兼CEO。

他是GPU（图形处理器）计算的先驱，在世界上率先用GPU进行大数据解析并取得卓越成绩；他独立设计完成的国际首个中国象棋超级程序“梦入神机”曾两度获得计算机象棋奥林匹克比赛冠军；他最早用反溯算法对中国象棋残局进行系统研究并有重大发现，成为用计算机生成的知识填补人类知识误区的第一人；他率团队研发了世界最大的专为深度学习定制的超级计算机，刷新了计算机视觉领域记录。而今，他创办的NovuMind（异构智能）公司，旨在用全栈技术包括极端定制化的异构AI（人工智能）芯片来实现让人工智能无处不在的理念，正在引导人工智能应用的下一波潮流。

“十年磨一剑，三年磨一片，不磨则已，一磨惊天！”2018年10月25日，就在母校迎来67岁生日的前一天，异构计算领域的顶尖科学家吴韧博士发了这样一条朋友圈。就在这天，他带领全球顶尖工程师团队历时三年研发的NovuTensor芯片正式向世界展示。

这个芯片的研发过程有一系列的“不寻常”：短短的一年两个月时间芯片就完成了美国专利从申请到批准，这是前所未有的速度；芯片一次流片成功，宣告异构智能正式进入人工智能芯片的精英俱乐部；更为重要的是，芯片在关键指标上超过了英伟达最新的Xavier芯片。可以说，在有“世界创新中心”之称的硅谷，吴韧团队的Novu Tensor芯片创造了新的“硅谷速度”。

创造芯片的新物种

2015年，吴韧创立了一家AI芯片公司——NovuMind。2016年3月，异构智能获得百万元天使投资。在2016年12月的A轮融资中获得洪泰基金、宽带资本、真格基金、英诺天使跟投的1500万美元融资。

这家初创公司在国内发声较少，真正了解它的人并不多。对于普通人而言，异构智能本身就是一个全新的概念，理解起来确实有些难度。吴韧在2017年与Xtecher记者的对话中，用了比较通俗的话来解释异构和异构芯片：“异构就是不同的架构在同一个东西中存在，比如在计算机里面，CPU（中央处理器）和GPU（图形处理器）就是异构。我们倘若把CPU和GPU甚至DSP（数字信号处理）放在一个芯片里面，那就是异构芯片。做异构的整体思路就是把一堆擅长做不同事情的东西放在一起做任务，通过异构实现在一个芯片上完成‘术业有专攻’，这一定是未来发展的趋势。目前异构智能就在做异构芯片。”

放眼当下芯片江湖，群雄四起。英伟达的GPU凭借其处理深度学习任务性能优势雄踞领跑者地位；向来不惧啃技术硬骨头的谷歌不甘示弱推出号称AI芯片颠覆者的自家TPU（张量处理器）；PC时代芯片霸主英特尔联盟Facebook等巨头合力开发AI专用芯片……已是混战一片。如何弯道超车，与巨头“硬碰硬”，这是吴韧和异构智能需要思考的问题。“是挑战，也是机会，”吴韧异常坚定地说：“异构智能的决定是take the challenge and seize the opportunity（接受挑战，抓住机遇）。”

“公平的世界有得就有失，要扔掉一些东西才能得到一些东西。”吴韧认为。当所有芯片设计者都在传统二维矩阵结构上“搭积木”时，吴韧推翻了传统做法，直接从头搭建了一套新的底层架构——三维张量，采取3´3的独特张量处理架构，只处理三维的深度神经网络计算。这种做法，舍弃了结构上的大而全，以换取把深度学习的算力逼向极致，同时大幅提高能耗比和晶片效率。许多人觉得这种做法很冒险，吴韧却非常自信，他认为，自己是在对AI了解得足够深以后，才做了别人不敢做的决定。“如果你很熟悉每一块积木，你就没必要在已有积木模型上新搭一块，你可以推翻了从零做起，这样才能逼近极致。”吴韧这样形容，“大部分人不敢只做深度学习，是因为他们还没想清楚深度学习和人工智能的关系。”

2018年1月9日，吴韧如约在CES（国际消费类电子产品展览会）首次展示了其AI芯片NovuTensor系列首款演示版，它的首次亮相便一鸣惊人。吴韧称，这是目前世界上唯一一款能实际运行的、性能达到主流GPU/TPU、性能功耗比大大领先的AI芯片——相比当时最先进的桌面服务器GPU，NovuTensor仅使用1/20电力即可达到其1/2的性能。他补充到，CES展示的仅仅是FPGA版本，等正在流片的ASIC芯片正式出厂，性能将提高4倍，耗电将减少一半。

天下武功，唯快不破。异构智能的芯片如同芯片界的新物种，在万众瞩目下闯进了芯片江湖，它重新定义了智能年代的“快”。雷锋网创始人林军这样评价：“高性能计算专家吴韧带领他的团队杀到计算机视觉的圈子里，用他们从来没有听闻过的打法让CV（计算机视觉）圈内的人有不战而降的恐惧。”

“张量卷积是人工智能的最关键算子，”吴韧说，“直接用芯片进行张量卷积计算的，不是谷歌，不是其他公司，而是异构智能。”他毫不掩饰自己的自信，“我的芯片是最好的。”这款为人工智能做极端定制化的芯片不会用来上网或者一些其他计算。它擅长的是在三维上做卷积张量的计算，把人工智能的计算加速，力求让人工智能应用的计算比别人好。

“会当凌绝顶，一览众山小。”这是吴韧对自己设计的芯片的定义，也是期待。

把AI的能力从云端拉到终端

在2014年3月的GTC大会（全球规模最大、最重要的GPU开发者大会）上，吴韧提出了一个公式“大数据+深度学习+高性能计算=更高智能”。如今，这个思路在世界上几乎所有的公司都得到了认可和应用——大家都在进行竞赛，用更强的计算拿到更聪明的智能，训练出更强的模型。但是在大会上，吴韧还同时分享了他的另一个公式“大数据+深度学习+异构计算=成功”。

为什么前一个公式中技术可以带来更新、更全的智能，第二个公式才能得到“成功”呢？吴韧对此做出了解释：“如果我们只是利用人工智能技术简单地训练出一个更聪明的模型并把这个模型放到云端，它能解决的问题就非常有限。一个直观的例子是，未来我们坐在运用这样的人工智能技术所驱动的自动驾驶车里时，这辆车需要通过云端的计算来做出判断，而当你面前突然出现一头牛的时候，把数据传回到云端、再利用训练出的模型进行判断，显然是不可靠的。我们需要做的是让这个汽车本身拥有足够聪明的本地化智能。”

“（云端）物联网是伪命题，是难以实现的。”吴韧第一次提出这个说法是在2015年的乌镇。在吴韧看来，物联网看似可以魔术般地连起来，但实际上如果打开看就会发现，要通过很多海底光缆或者地下光缆连接起来，才能将分支道路与主干道相连接。主干道是国家资源，需要国家的投资才能持续扩大；而物联网接入数的增长是指数级增长，这种增长远远超过主干道增长的速度。对此的解决方法就是，将人工智能的能力从云端拉到终端，让终端的小的物体同样具备思考的能力，把它们思考的结果通过网络与世界连接。

将AI放于终端对芯片提出了一高一低两点挑战。“高”在于，AI芯片要有足够强大的高性能支持复杂的人工智能计算，“低”是指芯片需足够低功耗才能置于边缘的小物体上。2018年10月6日，异构智能宣布其公司的NovuTensor芯片设计获得美国专利。“这个专利验证了我们的芯片在特定领域独特的架构设计，”吴韧介绍，“NovuTensor专为运行AI卷积神经网络模型而设计，追求发挥出极致的运算速度和效率。”可以说，该芯片是AI嵌入式应用和边缘服务器部署的最佳选择。这样看来，在从云端突破到终端的能力中，异构智能走得早，也走得稳。

“异构智能有芯片、模型，有超级计算机，希望将模型脱离云端，带到本地和终端，让终端变得智能。”在2017年举办的《异构智能拥抱人工智能大势》媒体交流会上，吴韧这样表达异构智能公司的愿景。“未来的世界一定是智能物联网领先。异构智能的定位是让万物互联转到万物智能，为转折提供所有的技术。”

吴韧坚信，人工智能作为一门技术，取得成功的标志是最终能否进入人们的生活，并且真正改善我们的生活。“在本地做人工智能是未来的方向，异构智能将为这个方向的公司赋能，”吴韧不止一次提到，“英伟达为其他人工智能公司提供计算能力，异构智能为非人工智能公司提供计算，或者智能的能力，帮助人工智能落地，使得这些公司可以把其他事情做得更好。”异构智能的本地智慧模块NovuBrain将在安防、制造、家居、医疗器械、智慧城市和智能驾驶等领域落地，目前已经与HP、KUKA合作，正在逐渐进入各行各业和人们的生活。其中，异构智能与华西医院的深度合作，已经完成3000万元Pre-A轮融资，并帮助NovuMind获取了丰富的医疗数据。吴韧正在用计算能力强悍的异构芯片敲开AI世界的大门。

“眼神好手法好，才能意气风发”，这不仅是吴韧对于自己的芯片的形容，也是他对自己的鼓励。在风云变幻的时代，他以计算能力为核心驱动力，一直走在人工智能领域的前沿。让我们拭目以待吴韧和他的异构智能弯道超车，为更多的公司赋能，最终影响每个人的生活。